Създателят на ChatGPT OpenAI очертава план за възпиране на дезинформация за избори

Ето по какъв начин основателят на ChatGPT OpenAI възнамерява да възпре изборната дезинформация през 2024 година

Производителят на ChatGPT очерта проект за попречване на потреблението на неговите принадлежности за разпространяване на избори, до момента в който гласоподавателите допълнително от 50 страни се приготвят да гласоподават на националните избори тази година.

Предпазните ограничения изложени от основаната в Сан Франциско започваща компания за изкуствен интелект (AI) в обява в блог тази седмица, включват композиция от към този момент съществуващи политики и по-нови начинания за попречване на злоупотребата с извънредно известните генеративни принадлежности за AI.

Те могат да основават нов текст и изображения за секунди, само че също по този начин да бъдат въоръжени за измисляне на подвеждащи известия или безапелационни подправени фотоси.

Стъпките ще се ползват особено за OpenAI, единствено един състезател в разширяваща се галактика от компании, разработващи усъвършенствани генеративни AI принадлежности.

Компанията, която разгласи ходовете в понеделник, съобщи, че възнамерява да „ продължи работата си по сигурността на платформата посредством повишение на точната информация за гласоподаване, налагане на премерени политики и възстановяване на прозрачността. ”

Той сподели, че ще забрани на хората да употребяват неговата технология за основаване на чатботове, които се показват за действителни претенденти или държавни управления, с цел да показват неправилно по какъв начин работи гласуването или да обезсърчават хората да гласоподават. Той сподели, че до момента в който не бъдат направени повече проучвания за безапелационната мощ на неговата технология, той няма да разреши на своите консуматори да основават приложения за задачите на политическа акция или лобиране.

Започвайки " при започване на тази година, " OpenAI сподели, че ще сложи цифрови водни знаци на AI изображения, основани благодарение на своя DALL-E генератор на изображения. Това трайно ще маркира наличието с информация за произхода му, което ще улесни идентифицирането дали изображение, което се появява другаде в мрежата, е основано благодарение на AI инструмента.

Компанията също по този начин сподели, че си партнира с National Асоциацията на държавните секретари да насочва потребителите на ChatGPT, които задават логистични въпроси по отношение на гласуването, към точна информация на безпартийния уеб страница на тази група, CanIVote.org.

Мекела Пандитаратне, консултант в програмата за народна власт в Центъра за правораздаване Бренан, сподели, че проектите на OpenAI са позитивна стъпка към битката с дезинформацията за изборите, само че това ще зависи от това по какъв начин ще бъдат приложени.

Например, какъв брой изчерпателни и изчерпателни ще бъдат филтрите при маркиране на въпроси по отношение на изборния развой? “ сподели тя. „ Ще има ли предмети, които да се промъкнат през пукнатините? “

ChatGPT и DALL-E на OpenAI са едни от най- мощни генериращи AI принадлежности към днешна дата. Но има доста компании с сходна комплицирана технология, които не разполагат с толкоз доста защитни ограничения против изборна дезинформация.

Докато някои компании за обществени медии, като YouTube и Meta, вкараха Политики за етикетиране на ИИ, остава да се види дали те ще могат непрекъснато да хващат нарушителите.

„ Би било потребно, в случай че други компании за генериране на ИИ одобряват сходни насоки, с цел да може да има използване на на практика правила в цялата промишленост ”, сподели Даръл Уест, старши помощник в Центъра за софтуерни нововъведения на Brooking Institution.

Без непринудено приемане на такива политики в промишлеността, регулирането на генерираната от AI дезинформация в политиката би изисквало законодателство. В Съединени американски щати Конгресът към момента не е приела законодателство, което да контролира ролята на промишлеността в политиката, макар известна двупартийна поддръжка. Междувременно повече от една трета от американските щати са приели или въвели законопроекти за справяне с дълбоките фалшификации в политическите акции, защото федералното законодателство е в застой. не е спокоен.

„ Мисля, че е добре, че имаме доста паники и ще създадем всичко допустимо, с цел да го оправим допустимо най-добре “, сподели той по време на изявление във вторник в Събитие на Bloomberg по време на Световния стопански конгрес в Давос, Швейцария.

„ Тази година ще би трябвало да следим това необикновено деликатно. Супер непоколебим мониторинг. Супер тясна верига за противоположна връзка. “